کتاب The Alignment Problem: Machine Learning and Human Values

وضعیت موجودی موجود

مقایسه شود

قیمت قبلی: 5,760,000 ریال

قیمت: 5,360,000 ریال

Product details

Publisher ‏ : ‎ W. W. Norton & Company (October 5, 2021)
Language ‏ : ‎ English
Paperback ‏ : ‎ 496 pages
ISBN-10 ‏ : ‎ 0393868338
ISBN-13 ‏ : ‎ 978-0393868333

A jaw-dropping exploration of everything that goes wrong when we build AI systems and the movement to fix them.

Today’s “machine-learning” systems, trained by data, are so effective that we’ve invited them to see and hear for us―and to make decisions on our behalf. But alarm bells are ringing. Recent years have seen an eruption of concern as the field of machine learning advances. When the systems we attempt to teach will not, in the end, do what we want or what we expect, ethical and potentially existential risks emerge. Researchers call this the alignment problem.

Systems cull résumés until, years later, we discover that they have inherent gender biases. Algorithms decide bail and parole―and appear to assess Black and White defendants differently. We can no longer assume that our mortgage application, or even our medical tests, will be seen by human eyes. And as autonomous vehicles share our streets, we are increasingly putting our lives in their hands.

The mathematical and computational models driving these changes range in complexity from something that can fit on a spreadsheet to a complex system that might credibly be called “artificial intelligence.” They are steadily replacing both human judgment and explicitly programmed software.

In best-selling author Brian Christian’s riveting account, we meet the alignment problem’s “first-responders,” and learn their ambitious plan to solve it before our hands are completely off the wheel. In a masterful blend of history and on-the ground reporting, Christian traces the explosive growth in the field of machine learning and surveys its current, sprawling frontier. Readers encounter a discipline finding its legs amid exhilarating and sometimes terrifying progress. Whether they―and we―succeed or fail in solving the alignment problem will be a defining human story.

The Alignment Problem offers an unflinching reckoning with humanity’s biases and blind spots, our own unstated assumptions and often contradictory goals. A dazzlingly interdisciplinary work, it takes a hard look not only at our technology but at our culture―and finds a story by turns harrowing and hopeful.

منابع کتاب کتاب The Alignment Problem: Machine Learning and Human Values

اکتشاف فک پایین از همه چیز که در هنگام ساخت سیستم های AI و جنبش برای حل آنها اشتباه است.

سیستم های "ماشین یادگیری" امروز، آموزش داده شده توسط داده ها، بسیار موثر هستند که ما آنها را دعوت کرده ایم تا برای ما ببینیم و بشنویم و از طرف ما تصمیم بگیرند. اما زنگ زنگ زنگ زنگ می زند. سال های اخیر، فوران نگرانی را به عنوان زمینه پیشرفت یادگیری ماشین دیده اند. هنگامی که سیستم هایی که ما تلاش می کنیم تدریس کنیم، در نهایت، آنچه را که می خواهیم انجام دهیم یا آنچه ما انتظار داریم، خطرات اخلاقی و بالقوه موجود در آن ظاهر می شود. محققان این مشکل هماهنگی را می خوانند.

سیستم های Cull Résumés تا سال های بعد، ما کشف می کنیم که آنها دارای تعصبات جنسیتی ذاتی هستند. الگوریتم ها تصمیم می گیرند قید و قید و شرطی و به نظر می رسد که متهمان سیاه و سفید را به طور متفاوتی ارزیابی کنند. ما دیگر نمی توانیم فرض کنیم که درخواست وام مسکن ما یا حتی آزمایش های پزشکی ما، توسط چشم انسان دیده می شود. و به عنوان وسایل خودمختار به اشتراک گذاشتن خیابان های ما، ما به طور فزاینده ای زندگی خود را در دست خود قرار می دهیم.

مدل های ریاضی و محاسباتی رانندگی این تغییرات در پیچیدگی از چیزی است که می تواند بر روی یک صفحه گسترده به یک سیستم پیچیده متصل شود که ممکن است به طور قابل اعتماد "هوش مصنوعی" نامیده شود. آنها به طور پیوسته جایگزین هر دو قضاوت انسانی و به صراحت برنامه های برنامه ریزی شده را جایگزین می کنند.

در بهترین فروش نویسنده Brian Christian's Riveting's Riveting's Riveting's، ما با "اولین پاسخ دهنده" مشکل هماهنگی، و برنامه بلند پروازانه خود را برای حل آن قبل از دست ما به طور کامل از چرخ. در یک ترکیب استادانه از تاریخ و گزارش زمین، مسیحی، رشد انفجاری در زمینه یادگیری ماشین را نشان می دهد و در حال حاضر، مرز خود را افزایش می دهد. خوانندگان با یک رشته روبرو می شوند که پاهای خود را در میان پیشرفت های هیجان انگیز و گاه وحشتناک پیدا می کنند. این که آیا آنها - و ما موفق می شوند یا شکست می خورند یا شکست در حل مسئله هماهنگی یک داستان انسانی تعریف می شوند.

مشکل هماهنگی یک حساب کاربری غیرقانونی را با تعصبات بشریت و نقاط کور، مفروضات بی نظیر خود و اغلب اهداف متضاد ارائه می دهد. یک کار خیره کننده بین رشته ای، نه تنها در تکنولوژی ما، بلکه در فرهنگ ما، به سختی نگاه می کند و داستان را با چرخش و امیدوار می داند.